Na era digital de hoje, a segurança online das crianças é uma preocupação crescente. Recentemente, Roblox, Discord, OpenAI e Google lançaram uma organização sem fins lucrativos chamada ROOST (Ferramentas de Segurança Online Abertas e Robustez), com o objetivo de construir uma infraestrutura de segurança escalável e interoperável para a era da IA. O objetivo desta nova organização é fornecer ferramentas de segurança de código aberto para organizações públicas e privadas, ajudando-as a melhorar a segurança em suas próprias plataformas, com foco especial na segurança das crianças. Nota da imagem: Imagem gerada por IA

O PimEyes proibiu a busca por rostos de menores para proteger crianças. Um sistema de IA de detecção de idade apresentou problemas de identificação. O mecanismo de proteção estava planejado, mas foi implementado totalmente após a cobertura da mídia. O PimEyes baniu mais de 200 contas infratoras. O uso indevido do mecanismo de reconhecimento facial levanta debates sobre regulamentação e privacidade.